ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs
ProgRouter：质量-成本权衡下多智能体 LLM 工作流的在线进度引导编排
🧭 多 Agent LLM 工作流在线路由编排 ★ 深度解读
Aston University · Queen Mary University of London · University of Exeter
面向多智能体 LLM 工作流，提出在线进度引导路由，逐步选择大小模型以在预算内保持任务质量
📌 工作参考价值（4 点）
- 多智能体工作流不要一次性 query 级路由，而应在每一步根据当前状态重估进度增益，用小模型处理常规步骤、大模型只处理关键卡点；电商客服/商品调研/推荐解释等 agent pipeline 可直接套用这种 step-wise routing。
- 用 multi-view progress scorer 把中间 workflow state 转化为 coarse regime + 子任务完成度/趋势/状态质量，能作为轻量 domain adapter。推荐/搜索场景可定义类似 milestone 信号（如召回完成率、排序置信度、引用覆盖）指导 LLM 调用。
- 虚拟队列 + 指数预算惩罚很实用：通过 Lyapunov virtual queue 跟踪长期平均成本，并用 exp(已消耗预算) 惩罚后续高成本调用，避免前期耗尽大模型配额；可直接迁移到广告竞价 / Agent 调用成本治理。
- 结构化特征与语义 embedding 双路径预测 + meta-gating + 在线 epsilon-greedy 探索更新，冷启动无需离线标注数据，适合业务中缺乏路由标注的 Agent 系统快速上线并逐渐稳定。